| 翻訳と辞書 |
精度 (算術)[せいど]
精度（せいど、precision）とは、数値を表現する桁数を意味する。
== 概要 ==
科学的には、全桁数を意味することが多いが（有効数字とも呼ぶ）、小数点以下の桁数を意味することもある。工学や金融などでは小数点以下の値が重要な意味を持つため、後者の定義が便利である。
いずれにしても、精度とは不正確な測定結果をどこで丸めるかを示すものである。例えば、浮動小数点数の算術では演算結果は「仮数」の長さという所定の精度で丸められる。金融計算では数値はある一定の桁数で丸められる（例えば、国際通貨の為替レートは一般に小数点以下2桁で丸められる）。
ここでは、例として十進数の値 12.345 を様々な精度で丸めるとどうなるかを示す。精度が不十分であれば、端数処理によってその精度に見合った桁数で数値が丸められる。下の表は最も一般的な四捨五入で丸めを行った場合を示している。
〔
抄文引用元・出典: フリー百科事典『 ウィキペディア（Wikipedia）』
■ウィキペディアで「精度 (算術)」の詳細全文を読む
スポンサード リンク
| 翻訳と辞書 : 翻訳のためのインターネットリソース |
Copyright(C) kotoba.ne.jp 1997-2016. All Rights Reserved.
|
|